SSSD: Decodificación Especulativa Simple y Escalable
Descubre SSSD, un método gratuito que acelera la inferencia de LLM hasta 2.9x sin necesidad de entrenamiento ni modelos auxiliares. Robusto en cambios de idioma y contexto largo.
#coincidencia de n-gramas